Panoramica del corso: l'incertezza nell'era della GenAI

La Lezione 5 segna una svolta decisiva in COMP5511. Ci allontaniamo dalla logica deterministica dell'informatica classica e dalla certezza supervisionata dei primi modelli di classificazione per addentrarci nel cuore probabilistico dell'IA generativa. In questa sessione esploriamo perché i moderni modelli di IA non restituiscono "fatti", bensì distribuzioni di probabilità, svelando i meccanismi che consentono agli LLM di scrivere poesie e ai modelli di diffusione di dipingere partendo dal rumore.

1. Il cambio di paradigma: dalla logica alla probabilità

• Oltre l'IF-THEN: passare da regole rigide a fluide verosimiglianze statistiche.
• La fine della certezza: capire perché i risultati della GenAI sono non deterministici per progettazione.
• La probabilità come strumento: come l'"era della GenAI" considera l'incertezza una caratteristica per la creatività, anziché un bug da correggere.

2. I motori probabilistici della creazione

L'IA generativa si basa sul campionamento da spazi di probabilità ad alta dimensionalità. Che si tratti di generare testo o immagini, il modello naviga l'incertezza per produrre novità:

• Modelli linguistici di grandi dimensioni (LLM): prevedere il token successivo non come una singola scelta, ma come una distribuzione di possibilità.
• Modelli di diffusione: l'arte di ricostruire a ritroso l'ordine dal caotico rumore gaussiano.
• Il processo di campionamento: come la casualità viene sfruttata per evitare output ripetitivi e "robotici".

3. Agenti in mondi imprevedibili

Gli agenti autonomi devono muoversi in "Mondi aperti" in cui ogni azione comporta un certo grado di rischio e ricompensa sconosciuti.